Kiểm toán Nhà nước Việt Nam được chính thức thành lập ngày 11 tháng 7 năm 1994 theo Nghị định 70/CP của Chính phủ Việt Nam với chức năng xác nhận tính đúng đắn, hợp lý của tài liệu, số liệu kế toán, báo cáo quyết toán của các cơ quan nhà nước, các đơn vị sự nghiệp, đơn vị kế toán nhà nước và các đoàn thể quần chúng. Chức danh Tổng Kiểm toán Nhà nước tương đương cấp Bộ trưởng, do Thủ tướng bổ nhiệm và Quốc hội phê chuẩn.

Sau khi Luật Kiểm toán Nhà nước có hiệu lực từ ngày 1 tháng 1 năm 2006, cơ quan Kiểm toán Nhà nước chuyển sang trực thuộc Quốc hội; vị trí Tổng kiểm toán Nhà nước do Quốc hội bầu theo sự đề cử của Ủy ban thường vụ Quốc hội sau khi được sự đồng ý của Thủ tướng Chính phủ. Nhiệm kỳ của Tổng Kiểm toán Nhà nước theo nhiệm kỳ của Quốc hội (5 năm), có thể được bầu lại nhưng không quá 2 nhiệm kỳ. Sửa đổi này được đưa ra nhằm đảm bảo việc kiểm soát ngân sách nhà nước chi tiêu khách quan và độc lập hơn.

Hiến pháp nước Cộng hòa xã hội chủ nghĩa Việt Nam (sửa đổi) được thông qua tại kỳ họp thứ 6, Quốc hội khóa XIII ngày 28.11.2013 đã hiến định địa vị pháp lý của KTNN và Tổng Kiểm toán Nhà nước tại Điều 118:

1. Kiểm toán nhà nước là cơ quan do Quốc hội thành lập, hoạt động độc lập và chỉ tuân theo pháp luật, thực hiện kiểm toán việc quản lý, sử dụng tài chính, tài sản công.
2. Tổng Kiểm toán nhà nước là người đứng đầu Kiểm toán nhà nước, do Quốc hội bầu. Nhiệm kỳ của Tổng Kiểm toán nhà nước do luật định.

Tổng Kiểm toán nhà nước chịu trách nhiệm và báo cáo kết quả kiểm toán, báo cáo công tác trước Quốc hội; trong thời gian Quốc hội không họp, chịu trách nhiệm và báo cáo trước Ủy ban thường vụ Quốc hội.

1. Tổ chức, nhiệm vụ, quyền hạn cụ thể của Kiểm toán nhà nước do luật định.